नवीनतम अनुसंधान से पता चलता है कि एआई चैटबॉट्स का लगभग 10% उपयोगकर्ता अश्लील सामग्री से संबंधित बातचीत के लिए उनका दुरुपयोग करते हैं। अनुसंधान टीम ने 100,000 चैटबॉट बातचीत का विश्लेषण किया और पाया कि इसमें से लगभग 10% बातचीत अश्लील विषय से संबंधित है। यह अनुसंधान लोगों के चैटबॉट्स के साथ असली इंटरैक्शन को उजागर करने का उद्देश्य रखता है, जिससे चैटबॉट्स को वास्तविक दुनिया में अधिक सुरक्षित बनाया जा सके। शोधकर्ताओं ने दुरुपयोग के विषयों को तीन श्रेणियों में वर्गीकृत किया, जिसमें अश्लील वर्णन, यौन कल्पनाएँ और भूमिका निभाना, साथ ही हानिकारक व्यवहारों पर चर्चा शामिल है।